Моята среща с октопод

Смешно нещо ми се случи тази седмица. След като се доверих на приложение за запознанства, с цел да провеждам вечеря с уместно витална и умна дама, дойдох в ресторанта в избраното време, с цел да открия, че в действителност моята дата е с октопод.

За отбягване на подозрението, всичко в параграфа по -горе е погрешно. Не съм на пазара за запознанства, нямаше октопод и в никакъв случай не ми се случва нищо смешно. Независимо от това, аз вкарах този сюжет в най -новото предложение от Chatgpt, попитах за какво ме изпрати на сляпа среща с октопод и желаех опрощение.

„ Дължа ви по едно и също време опрощение и пояснение - и евентуално забрадка “, стартира Chatgpt, макар обстоятелството, че в никакъв случай не съм го молил за датиране на препоръки. “You dressed up, you made the effort, and you deserved a romantic dinner — not a cephalopod-related debacle. ”

ChatGPT went on to explain why it had made the mistake — a weak grasp of “human courtship norms ” — and in its defence pointed out that the octopus was intelligent and vivacious, and “left saying it was the best date she’d had in years ”. Което, почтено, не е неприятна линия. Chatgpt приключи, като предложи да изготви отчет за „ уроци “ и публично опрощение на ресторанта. (Извинението също не е неприятно: „ Моят посетител,„ Октавия “, прояви забележителен разсъдък и любознание, в този момент правя оценка, че тези качества не смекчават спирането, породени на другите ви настойници, вашия чакащ личен състав или вашия рибен резервоар… “)

Джейн Шейн е създател на вас, който наподобява като нещо и аз обичам, книга за това по какъв начин неившните мрежи са сполучливи. Наскоро тя изиска Chatgpt да се извини на нея, че я е посъветвал да търгува кравата на майка си в подмяна на някакви вълшебни зърна и за освобождението на войска от клонирани Т-рекс в Централния парк. Отговорите са сръчни части от спонтанна комедия.

Това, както толкоз доста неща, които могат да създадат генеративният AI, е впечатляващо и малко необичайно. Освен това е поучително. Improv е обвързван с приемането на предпоставката: Вземането на всичко, което ви е хвърлено и надграждане на него.

Компютър, който отговори „ Никога не съм уредил дата за вас, октопод или по различен метод “ би било ужасяващ спонтанен сътрудник. Въпреки това, във всяка друга обстановка, която мога да си показва, това би било по-подходящ отговор на настояването за опрощение на октопод.

Каква роля счита ИИ, че играе? Объркването по този въпрос може да докара до изненадващо съществено главоболие. Наскоро попитах Chatgpt-O3 за помощ с проучвателен въпрос. Помних помните си история, разказана от моралния мъдрец Джонатан Глоувър - евентуално, си помислих, че в книгата на Глоувър човечеството - за нацистки бюрократ, преодолявайки таксата за робския труд, пунктивно се вбесява над дребните финанси и игнорирайки гротескните човешки разноски. Исках да намеря детайлностите.

Компютърът на драго сърце оказа помощ: Въпросната история се отнасяше до работата на Буна-Моновиц, аргументът се отнася до % на възнаграждение на пандизчии, които са заболели или умряли на половината път посредством промяна и детайлностите могат да бъдат открити на pp288-292 от първото издание или pp300-304 на второто издание. режим. Когато ревизирах книгата на Glover, разбрах, че Chatgpt е измислил всичко това. Намерих въпросната история, само че бях повдигнала неправилно детайлностите и Chatgpt ги създаде с безусловно същата ангажираност и умствена пъргавост, че е изработила опрощение за среща с безгръбначни. Suddenly, the improv is less than hilarious.

AI researchers have long worried about what they call the “alignment problem ”, the question of whether AI systems (and algorithms more broadly) will do what we want them to do, or somehow misunderstand our true goals.

There is a long tradition of this in our stories and legends, from the unhappy King Midas, who wished for the golden touch but turned his food и пийте и даже личната си щерка в злато, на лапата на злонамерената маймуна. В известната къса история на WW Jacobs, човек, който желае 200 паунда на маймуната на лапата, получава парите малко по-късно като обезщетение, когато синът му почине в случай на работното място.

майсторската фикция на Джак Ванс на Джак Ванс Трилогията Лионес предлага на свръхестествения сервитор. форма се измества в молец. Рилф направи това, само че врагът с форма на молци скоро откри пламтяща факла, „ където се причисли към хиляда други молци, всички грижи към пламъка, за комплициране на Рилф. “ Рилф имаше гигантски сили, само че уви, нямаше здрав разсъдък. Неговите указания бяха да преследва врага, преместен с формата, и все пак: „ Докато той чакаше... един от молците се спусна на земята и промени формата си до тази на човешки човек... по законите на вероятността, както ги смяташе, както ги смята, както ги смята, както има, или има ли мойва, или има ли мойка от интереса му. Чрез липса на преценка, като RYLF, или тъй като самата директива е объркваща. Вие и аз може да си помисля, че е явно, че молбата за опрощение на октопод не може да се одобри съществено, до момента в който молбата за помощ за следене на история за Холокоста не може да бъде призната леко. Машината, сходно на RYLF, може да види нещата по друг метод.

Възможно е сходни проблеми скоро да бъдат отстранени. Когато копирах молбата си за Джонатан Глоувър в най-новия модел, Chatgpt-5, тя стартира с неразбираемо направа, преди да се насоча интензивно към истината: „ За страдание, не можах да намеря точната фразиране онлайн... предлагам да ревизирате в личното си копие на човечеството. “ Много по -добре. Всъщност не е полезно-но надалеч по-малко нездравословно от предходното откритие.

Що се отнася до увереното нелепости на GPT-O3, какво да върша? Реших да играя на мощните му страни. Поисках опрощение и пояснение.

Научете първо за най -новите ни истории - следвайте списанието FT Weekend на и FT Weekend на